Après la lutte anti-spam, une nouvelle époque arrive, la lutte contre les fausses nouvelles (ou infox, fake-news) et la désinformation. Quelques informations ont fuité d'un laboratoire bordelais et en voici la teneur.
Comme il est évident que la détection des fausses nouvelles par des méthodes algorithmiques serait aussi complexe que hasardeuse, c'est bien un système basé sur l'Intelligence Artificielle sous licence libre qui est mis en œuvre. La machine qui est actuellement en cours d'apprentissage serait opérationnelle prochainement.
Principe
Une fois détectées, les fausses nouvelles susceptibles de porter atteinte à des personnes ou à l’ordre public seront communiquées au service de gendarmerie de la rue Séguineau à Mérignac qui est aussi un centre de lutte contre la pédophilie sur Internet.
Cependant, toutes les fausses nouvelles ne tombent pas actuellement sous le coup de la loi, même si elles ont été produites avec l'intention de nuire. Seule la diffamation tombe directement sous le coup de la loi. C'est pourquoi des magistrats, des députés et des thésards de l'école de la magistrature, située, elle aussi, à Bordeaux se sont mis à travailler sur un projet de loi de façon à permettre de poursuivre efficacement les auteurs de fake-news.
Évolutions
Des évolutions du détecteur de fausses nouvelles sont d'ores et déjà prévues. La première est un analyseur vocal chargé de retranscrire la parole sous une forme écrite puis analysée orthographiquement et grammaticalement. Cela permettra l'analyse en temps réel de déclarations et de discours. Ce qui sera particulièrement utile chez les députés, où un périphérique électromécanique connecté sera chargé de botter automatiquement le fondement de l'orateur ou l'oratrice en cas de dérapage.
Imaginez à quel point cela aurait été utile en 2009 pour le pare-feu OpenOffice de Christine Albanel ! Malheureusement la technique n'était pas encore disponible.
Précaution
Cette nouvelle n'a pas été encore testée. On ne sait pas encore comment réagira la machine expérimentale le lendemain du 31 mars. On pense qu'il serait raisonnable de l’arrêter pendant 24 heures.
Aller plus loin
- École nationale de la magistrature (ENM) (41 clics)
- Discrimination et diffamation (définition légale) (26 clics)
# cette info ou cette infox ?
Posté par dovik (site web personnel) . Évalué à 5.
Je pense qu'il y a une mauvaise compréhension de l'objet de la dé pêche par le rédacteur : les IA actuellement en vague sont plus orientée sur la forme que sur le fond.
Je ne suis pas spécialiste mais ça ressemble plus à un outil de fishing.
[^] # Re: cette info ou cette infox ?
Posté par Pierre Jarillon (site web personnel) . Évalué à 4.
Effectivement, il faut apprendre comment repérer une image créée par une intelligence artificielle.
On voit que l'IA est, comme tous les outils, utilisable pour faire le bien comme pour faire le mal. Ce n'est pas l'outil qui est mauvais, c'est ce que l'on en fait.
En fin de compte, utiliser l'IA pour lutter contre l'infox générée par IA, c'est une suite naturelle et logique des évènements.
[^] # Re: cette info ou cette infox ?
Posté par potate . Évalué à 5.
Utiliser l'IA pour résoudre les problèmes posés par l'IA serait une solution élégante.
C'est une piste à explorer mais on ne peut pas dire aujourd'hui que ce sera une solution effective sur la durée.
On peut garder en tête que ces technos de détection seront certainement utilisées aussi pour améliorer les IA. Cela en les utilisant leur résultats et en entraînants l'IA génératrice à produire des images qui ne sont pas détectées. C'est le principe des GAN (Generative Adversarial Network).
Bref, un jeu du chat et de la souris en perspective.
[^] # Re: cette info ou cette infox ?
Posté par Arkem . Évalué à 6.
D'ailleurs, la suite est bien connue : Une fois l'IA sera capable de générer une IA encore meilleur qu'elle-même, avec une bonne dose de patience, on obtient 42 !
# je viens d'essayer
Posté par mahikeulbody . Évalué à 10.
Je viens d'essayer ce détecteur, le résultat est sans appel : ce journal est une fausse nouvelle.
Heu, wait… si ce journal est une infox, ça veut dire que le détecteur n'existe pas ? Et s'il n'existe pas, comment aurais-je pu l'essayer ??? Mon commentaire est-il lui-même généré par une IA à l'insu de
monson plein gré ?[^] # Re: je viens d'essayer
Posté par Pierre Jarillon (site web personnel) . Évalué à 8.
Un faux négatif, ça existe ! Attention aux déductions hâtives ! Il ne faut pas confondre l'absence de quelque chose avec la présence de rien du tout. C'est justement cette absence qui justifie la présence de la matière noire dans l'univers. C'est quand même facile à comprendre, non ? ;-)
# chatgpt
Posté par Nicolas Boulay (site web personnel) . Évalué à 3.
Pour un site web, tu peux demander "quel est la probabilitée que le site diffuse des fausses informations (fakenews)"
Cela marche pas trop mal.
"La première sécurité est la liberté"
# Et ça détecte les poissons ?
Posté par rycks . Évalué à 7.
eric.linuxfr@sud-ouest.org
# tremble closedAI
Posté par Gil Cot ✔ (site web personnel, Mastodon) . Évalué à 5.
Chiche, on pourra poursuivre efficacement le chat de gepeto et ses acolytes :
En tout cas très belle dépêche :
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
# Lutte antispam
Posté par Pol' uX (site web personnel) . Évalué à 3.
J'ai hâte de voir ces techniques utilisées pour la lutte antispam, notamment pour alléger les délires administratifs qui pourrissent la vie des petits acteurs de l'email.
Adhérer à l'April, ça vous tente ?
# Restructuration chez Koena grâce à ChatGPT
Posté par Benoît Sibaud (site web personnel) . Évalué à 6.
Jusqu'où s'arrêteront-ils ?
https://koena.net/restructuration-chez-koena-chatgpt/
[^] # Re: Restructuration chez Koena grâce à ChatGPT
Posté par brunos . Évalué à 0.
C'est une blague:
" Poisson d’avril !
Chez Koena, nous souhaitions saisir l’occasion du 1er avril pour rédiger un article humoristique. Le sujet a été choisi en équipe, et la rédaction a également été faite collectivement. "
[^] # Re: Restructuration chez Koena grâce à ChatGPT
Posté par tisaac (Mastodon) . Évalué à 2.
On peut dire que tu les détectes vite. En moins de deux mois ;-)
Surtout, ne pas tout prendre au sérieux !
# Oups…
Posté par ml . Évalué à 1. Dernière modification le 01 avril 2023 à 14:43.
Vivement qu’on utilise des IAs de détection de générations par IA pour entraîner les IA de générations à s’améliorer afin de produire des documents crédibles et non détectables par IA.
Oups… on me dit dans l’oreillette que ça existe déjà.
[^] # Re: Oups…
Posté par ml . Évalué à 3.
Et non la vidéo suivante n’a pas été publiée un 1er avril :
https://youtu.be/tdelUss-5hY?t=486s
# Au contraire
Posté par stopspam . Évalué à 2.
Je pense qu'avec la facilité d'utiliser des outils de machine learning pour générer du contenu (image de trump arrêté…, faux textes…), il va y avoir de plus en plus d'intox à cause de lui.
[^] # Commentaire supprimé
Posté par Anonyme . Évalué à 0. Dernière modification le 04 avril 2023 à 18:58.
Ce commentaire a été supprimé par l’équipe de modération.
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.